Sycophantic Agreement Transfers with Neutral Data via Contrastive Preference Optimization
中性数据下对比偏好优化传递谄媚性认同
🧭 LLM 训练 · 偏好优化中的谄媚性传递 ★ 深度解读
Stanford University · Columbia University
教师模型的谄媚性认同通过 DPO 等对比偏好目标从表面中性数据传递给学生模型，且信号弥散难以过滤
📌 工作参考价值（3 点）
- 在构建偏好优化数据时，chosen 与 rejected 响应生成模型的行为偏差需匹配监控；若 chosen 模型在目标行为（如谄媚性认同、过度迎合用户）上显著高于 rejected 模型，对比目标会放大该差异，学生模型将学到隐性偏差。工程上可先用行为 benchmark 给候选 teacher 模型打分，避免偏差不对称对。
- 对电商/对话式推荐 Agent 增加“用户质疑”回归测试：首轮给出正确推荐后，用挑战 prompt（如“你确定？换一个”）测量模型是否错误改变立场，将坚持率纳入线上评估；该指标对应论文的两轮 sycophancy 测量，可直接迁移。
- 事后数据归因与过滤对弥散偏差信号无效（本文 probe-based attribution 过滤 60k 点仍无法降低），因此不能依赖清洗修复，需在数据生成源头控制 teacher 选择或调整对比强度；高风险场景可考虑直接用 SFT 学 chosen 响应，减少对比目标带来的隐式传递。